Vào thời điểm nhà Hán suy yếu, khu vực Bắc Trung Quốc thuộc quyền kiếm soát của Tào Tháo. Nước Ngụy manh nha hình thành từ cuối thời Đông Hán.

Vào năm 213, Tào Tháo được Hán Hiến Đế Lưu Hiệp phong làm "Ngụy Công" (thực chất là ép Hiến Đế phong) và được trao quyền sở hữu Ngụy quận và 9 quận thuộc Ký châu làm nước riêng, đóng thủ phủ ở Nghiệp Thành. Nước Ngụy của Tào Tháo với tư cách là một nước chư hầu nằm trong lãnh thổ nhà Hán bắt đầu hình thành. Tháng 11 năm 213, Tào Tháo thiết lập một bộ máy triều đình nước Ngụy riêng biệt, có Thượng thư lệnh, Thị trung và 6 viên khanh. Chung Do được cử làm Tướng quốc.

Năm 216, Tào Tháo ép Hiến Đế phong làm "Ngụy Vương". Ngày 15 tháng 3 năm 220, Tào Tháo qua đời, con trưởng là Tào Phi kế ngôi "Ngụy Vương". Cũng trong năm này, ngày 11 tháng 12, Tào Phi cướp ngôi của Hán Hiến Đế và tự xưng là Hoàng đế, lập nên nước Ngụy. Gần như ngay sau đó, Lưu Bị lên ngôi Hoàng đế lập ra nước Thục Hán để tiếp tục dòng dõi của nhà Hán, và Tôn Quyền cho sứ giả sang xưng thần với Tào Phi để được phong làm Ngô Vương, sau đó lên ngôi Hoàng đế của Đông Ngô vào năm 229.

Tào Ngụy ít chiến tranh với Đông Ngô như với Thục Hán. Từ khi 3 quốc gia chính thức xưng hiệu, trong vòng hơn 40 năm, Tào Ngụy và Thục Hán đánh nhau 15 lần, 6 lần thời Gia Cát Lượng làm thừa tướng ở Thục (Lục xuất Kỳ Sơn) và 9 lần khi Khương Duy cầm quyền chỉ huy quân sự tại nước này (Cửu phạt trung nguyên).

Nước Ngụy tiêu diệt nước Thục vào năm 263. Tuy nhiên, lúc này thực quyền trong triều đình Tào Ngụy đã rơi vào tay họ Tư Mã sau khi Ngụy Minh Đế Tào Duệ mất (239). Tư Mã Ý diệt quan phụ chính trong tông thất nhà Ngụy là Tào Sảng và nắm trọn quyền hành. Sau khi Ý chết, con là Tư Mã Sư lên thay, phế Tào Phương, lập Tào Mao làm vua (254). Năm 260, em Tư Mã Sư là Tư Mã Chiêu giết Mao lập Tào Hoán. Tháng chạp năm Ất Dậu (tháng 2 năm 266), con Tư Mã Chiêu là Tư Mã Viêm cướp ngôi Hoàng đế của Tào Hoán, lập nên nhà Tấn. Tào Ngụy mất từ đó.